AI Overviews на Google дава грешни здравни съвети
Функцията AI Overviews на Гугъл, въведена през май 2024 година за по-лесно намиране на информация, дава неточни и потенциално опасни здравни препоръки, показва разследване на " Гардиън ". Според специалисти сходна дезинформация може да изложи потребителите на сериозен риск за здравето им.
Сред образците за неверна здравна информация са препоръки към пациенти с рак на панкреаса да заобикалят мазни храни, макар че лекарите предлагат тъкмо противоположното, както и подвеждаща информация за онкологични проучвания при дамите, която може да докара до игнориране на действителни признаци.
Специалисти предизвестяват, че рискът е изключително огромен, защото хората постоянно търсят здравна информация онлайн в моменти на паника и неустановеност. Представители на организации за психологично здраве също алармират за " доста рискови " препоръки, свързани с хранителни разстройства и психози, които могат да обезкуражат хората да потърсят професионална помощ.
От Гугъл декларират, че влагат обилни запаси в качеството на AI Overviews, изключително по здравни тематики, и че множеството систематизирания са правилни. Данните от следствието на " Гардиън " обаче демонстрират, че проблемът остава и е по-сериозен.
Близо 80% от възрастните търсят здравна информация онлайн, а съвсем две трети считат AI-генерираните отговори за надеждни. Това прави още по-опасни погрешните отговори на функционалността за обобщаване. За всички, търсещи в Гугъл, точно тя е първото нещо, което виждат.
В същото време специалисти и медицински организации, в това число Канадската здравна асоциация, дефинират AI-здравните препоръки като рискови и приканват хората да се съветват с лекари, а не с изкуствен интелект.
Показателно е, че при въпрос дали може да се разчита на него за здравни препоръки, самият AI Overviews насочва потребителите към следствието на " Гардиън ", което акцентира риска от подправена и подвеждаща здравна информация.
Сред образците за неверна здравна информация са препоръки към пациенти с рак на панкреаса да заобикалят мазни храни, макар че лекарите предлагат тъкмо противоположното, както и подвеждаща информация за онкологични проучвания при дамите, която може да докара до игнориране на действителни признаци.
Специалисти предизвестяват, че рискът е изключително огромен, защото хората постоянно търсят здравна информация онлайн в моменти на паника и неустановеност. Представители на организации за психологично здраве също алармират за " доста рискови " препоръки, свързани с хранителни разстройства и психози, които могат да обезкуражат хората да потърсят професионална помощ.
От Гугъл декларират, че влагат обилни запаси в качеството на AI Overviews, изключително по здравни тематики, и че множеството систематизирания са правилни. Данните от следствието на " Гардиън " обаче демонстрират, че проблемът остава и е по-сериозен.
Близо 80% от възрастните търсят здравна информация онлайн, а съвсем две трети считат AI-генерираните отговори за надеждни. Това прави още по-опасни погрешните отговори на функционалността за обобщаване. За всички, търсещи в Гугъл, точно тя е първото нещо, което виждат.
В същото време специалисти и медицински организации, в това число Канадската здравна асоциация, дефинират AI-здравните препоръки като рискови и приканват хората да се съветват с лекари, а не с изкуствен интелект.
Показателно е, че при въпрос дали може да се разчита на него за здравни препоръки, самият AI Overviews насочва потребителите към следствието на " Гардиън ", което акцентира риска от подправена и подвеждаща здравна информация.
Източник: dnesplus.bg
КОМЕНТАРИ